Ngay từ lúc đầu của cuộc cách mạng Nga, trấn áp những lực lượng đối phương (Bạch Vệ) là một công cụ của những người Bolshevik để giữ vững chính quyền và chiến thắng trong cuộc chiến tranh chống Bạch Vệ. Trotsky 1918 đã dùng lực lượng dân quân của Hồng quân để chống lại những thành phần chống cách mạng bên trong nước Nga. Với nhu cầu ổn định tình hình đất nước trong sự hỗn loạn của Nội chiến Nga, Với sắc lệnh "Về cuộc khủng bố đỏ" ngày 5 tháng 9 năm 1918, Lenin đã đề nghị sử dụng những biện pháp trấn áp có hệ thống chống lại kẻ thù và áp dụng luật lệ riêng biệt cho cảnh sát mật Liên Xô: "Trong tình trạng hiện tại thì thật là cần thiết là phải yểm trợ nhóm Tscheka..., phải cô lập những kẻ thù giai cấp trong những trại tập trung để mà bảo vệ chế độ Cộng hòa, bất cứ ai mà dính líu tới các âm mưu, các cuộc nổi dậy phải bị xử bắn ngay tại chỗ." Từ đó, nhóm Tscheka trở thành một nhà nước trong nhà nước, một bộ phận quyền lực, thi hành những biện pháp trấn áp theo một quy trình khá rõ ràng.[15]

Lenin là người đã chính thức hóa việc sử dụng quyền lực một cách chuyên chế để chống lại kẻ thù của Cách mạng, nhưng Lenin nghiêm cấm việc sử dụng bạo lực chống lại những người cùng hàng ngũ. Thanh trừng tiếng Nga: "Tschistka" theo Lenin chỉ là một biện pháp để giáo dục những đồng chí kém phẩm chất tự giác trở lại đúng con đường mà đảng hoạch định. Những thành phần này phải tự kiểm điểm công cộng và trong trường hợp vẫn còn nghi vấn sẽ bị khai trừ ra khỏi đảng.[15]

Stalin đã biến bộ máy cảnh sát mật thành một bộ máy hỗ trợ thanh lọc chính trị, ông là người quyết định và ra lệnh, ai là bạn và ai là thù, ai là kẻ phản bội cần phải bị loại trừ.[15] Ngay từ trong thập niên 1920 Stalin đã bắt đầu loại trừ những đối thủ hoặc những người ông cho là đối thủ chính trị của mình ra khỏi đảng Cộng sản Liên Xô. Sau đó các phạm nhân thường bị xét xử qua những vụ án chỉ để tác động dư luận quần chúng, hay xử ngầm, bị xử tử, nhốt tù hay tù lao động trong các trại tù Gulag.[20]

Khi quá trình này được thực hiện, Stalin đã củng cố quyền lực của mình ở gần mức tuyệt đối vào năm 1934 với việc Bí thư Thành ủy Leningrad Sergei Mironovich Kirov bị ám sát như một hoàn cảnh để tung ra cuộc thanh lọc lớn chống lại những kẻ bị cho là phần tử xấu, nổi tiếng nhất là những cán bộ cao tuổi và những thành viên từ chức vụ thấp đến cao trong Đảng Bolshevik. Lev Davidovich Trotsky đã bị khai trừ khỏi đảng năm 1927, bị đưa tới Kazakhstan năm 1928 và sau đó bị trục xuất hoàn toàn khỏi Liên Xô năm 1929. Stalin đã sử dụng các vụ thanh lọc để loại bỏ những người mà ông không tin tưởng, buộc tội Grigory Yevseevich Zinoviev và Lev Borisovich Kamenev đứng đằng sau vụ sát hại Kirov và có kế hoạch lật đổ chế độ Stalin. Cuối cùng, những người bị cho là liên quan đến việc này và các âm mưu khác với số lượng hàng chục nghìn người gồm nhiều cựu Bolshevik và thành viên cao cấp của đảng bị buộc tội âm mưu và phá hoại để giải thích cho những vụ tai nạn công nghiệp, sự thâm hụt sản xuất và các tai nạn khác của nền kinh tế. Các biện pháp để chống lại những người đối lập và bị nghi ngờ gồm việc giam giữ trong các trại lao động (Gulag) tới xử bắn (con trai Trotsky, Lev Sedov và giống như Sergei Kirov bản thân Trotsky khi lưu vong nước ngoài cũng chết bởi điệp viên của Stalin năm 1940). Thời kỳ từ 1936 đến 1937 thường được gọi là "Nỗi khiếp sợ vĩ đại", với hàng trăm nghìn người (thậm chí chỉ đơn giản bị nghi ngờ chống đối chế độ Stalin) bị xử bắn hoặc bị bỏ tù[21].

Nhiều tòa án trình diễn đã được tổ chức ở Moskva để phục vụ như ví dụ cho những phiên tòa mà tòa án địa phương sẽ tiến hành ở những nơi khác trong đất nước. Có bốn vụ xử quan trọng từ 1936 đến 1938, Phiên tòa Mười sáu tên là vụ đầu tiên (tháng 12 năm 1936); sau đó là Phiên tòa Mười bảy tên (tháng 1 năm 1937); rồi Phiên tòa các vị tướng Hồng Quân, gồm cả nguyên soái Mikhail Nikolayevich Tukhachevsky (tháng 6 năm 1937); và cuối cùng là Phiên tòa Hai mốt tên, gồm cả Nikolai Ivanovich Bukharin (tháng 3 năm 1938).

Ngày 2 tháng 6, trong một cuộc họp của 116 tướng lĩnh cao cấp của Hồng quân, Stalin lên tiếng về vụ bắt giữ Mikhail Nikolayevich Tukhachevsky là "không nghi ngờ gì nữa, một âm mưu quân sự - chính trị do bè lũ phát - xít Đức kích động và tài trợ chống lại Nhà nước Liên Xô đã xảy ra",[22] sau đó Tukhachevsky bị kết án tử hình cùng với 7 sĩ quan khác của Hồng quân trong phiên xử kín được biết dưới tên "Vụ án bè lũ phản cách mạng Trotskyist trong Hồng quân".

Trong thời gian Chiến tranh lạnh, một số nhà sử học đặt nghi vấn rằng các điệp viên Đức, dưới sự chỉ đạo của Heinrich Himmler và Reinhard Heydrich đã phát tán các tài liệu giả về mối quan hệ giữa M. N. Tukhachevsky với Bộ Tổng tham mưu Quân đội Đức Quốc xã để gieo rắc nghi ngờ ở Stalin, qua đó làm Hồng quân suy yếu[23]. Theo giả thiết này, các tài liệu giả được chuyển cho tổng thống Tiệp Khắc Edvard Beneš, ông này tin tưởng vào giá trị của chúng và đã trao nó cho Stalin[23].

Tuy nhiên, các tài liệu lưu trữ được công bố sau khi Liên Xô sụp đổ cho thấy rằng NKVD (НКВД СССР) đã đứng đằng sau kế hoạch này[23] khi thông qua một điệp viên của mình chuyển thông tin giả cho Reinhard Heydrich, còn Reinhard Heydrich thì chớp cơ hội bịa ra những tài liệu đáng tin cậy hơn và chuyển trở lại cho các nguồn trung gian[23]. Cũng theo nguồn tài liệu lưu trữ này được phân tích bởi sử gia Mỹ J. Arch Getty, thì Tukhachevsky được Stalin nhận định là không thuộc nhóm "Đảng trước, Quân đội sau" như Voroshilov và Budenny,[24] trong khi chính sách của Stalin trong nửa sau năm 1937, là "tiêu diệt bất kỳ ai nghi ngờ có biểu hiện hoặc có tiềm năng là không trung thành với nhóm Stalin".[25] Thái độ này của Stalin cũng được sử gia Otto Preston Chaney xác nhận khi cho rằng "một số nhân chứng trong cuộc khẳng định rằng kế hoạch buộc tội Tukhachevsky do NKVD chuẩn bị và thực hiện không thể không được Stalin thông qua".[26].

Ngoài ra phần lớn các lãnh đạo quân đội chung quanh thống chế Mikhail Nikolayevich Tukhachevsky bị buộc tội có âm mưu chống Đảng và bị cách chức hoặc bắt giữ. Nhiều người cộng sản có nguồn gốc ở nơi khác, di cư sang Liên Xô cũng trở thành đối tượng thanh lọc. Năm 1940, chính người có trách nhiệm lớn trong việc thi hành các cuộc thanh trừng Nikolai Jeschow, mà từ 1936 tới 1938 là bộ trưởng Bộ Nội vụ và ứng cử viên Bộ chính trị, cũng như người tiền nhiệm của ông Genrich Yagoda cũng đã bị xử lý với tội danh lạm quyền. Thay thế ông vào ngày 24 tháng 11 năm 1938 là Lawrenti Beria, đã cùng với Ivan Serov tiếp tục các cuộc thanh lọc chính trị[27]

Stalin không những trừng phạt những người mà ông cho là phần tử phá hoại, trong đó có nhiều người cộng sản ngoại quốc mà sống ở Liên Xô hay vì bị truy đuổi phải tị nạn ở đó, ngoài ra còn cả những dân tộc thiểu số ở Liên Xô bị đưa vào trại lao động (Gulag) do có hành động chống Nhà nước Xô viết. Ngay cả những chủ điền hay những người bị xếp vào hạng này, các linh mục, thầy tu và con chiên cũng bị thanh lọc. Nhiều người không dính líu gì đến chính trị như công nhân, nông dân, nhà khoa học, sử gia, nhà văn, họa sĩ, nhạc sĩ... cũng bị bắt vì những lý do như phá hoại sản xuất, có quan điểm trái ngược với chủ nghĩa Marx - Lenin... Ngay cả người dân của các vùng mà bị Hồng quân chiếm đóng cũng bị thanh lọc như người Baltic, Ba Lan, Hungary, Romania, Đức như vụ xử bắn Katyn với sự đồng ý của Stalin trên 20 ngàn tù binh Ba Lan đã bị xử bắn.[28]